Năm 1996, ông được tái cử Ban Chấp hành Trung ương Đảng và được phân công giữ chức vụ Bí thư Tỉnh ủy Quảng Ninh.[4]

Năm 1998, ông được giao giữ chức vụ Phó trưởng Ban Thường trực Ban Tổ chức Trung ương Đảng.

Năm 1999, là Bí thư Tỉnh ủy Thái Nguyên.

Từ ngày 8 tháng 8 năm 2001 đến ngày 15 tháng 1 năm 2003, ông còn kiêm nhiệm chức Chủ tịch Liên đoàn Bóng đá Việt Nam.

Năm 2002, ông là Ủy viên Ủy ban Thường vụ Quốc hội, Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường của Quốc hội.

Tháng 4 năm 2006, ông tái đắc cử vào Ban Chấp hành Trung ương; được Ban Chấp hành Trung ương bầu vào Bộ Chính trị. Tháng 5 năm 2006 ông được phân công giữ chức Trưởng ban Tổ chức Trung ương Đảng. Từ tháng 7 năm 2006, ông được cử làm Bí thư Trung ương Đảng thay Phạm Quang Nghị.

Tại Đại hội Đảng toàn quốc lần thứ XI (12-19/01/2011), ông không tái cử vào Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam. Từ ngày 1 tháng 10 năm 2011, ông nghỉ hưu, chính thức rút khỏi chính trường.[5]

Ông mất vào lúc 17 giờ 15 phút ngày 31 tháng 5 năm 2013 tại Hà Nội vì ung thư, tang lễ tổ chức theo nghi thức Lễ tang cấp Nhà nước.[2][6][7]